Pada tahun 630 Masihi, Nabi Muhammad s.a.w. telah berjaya menyatukan hampir keseluruhan Semenanjung Arab. Baginda wafat pada tahun 632 dan Abu Bakar as-Siddiq menjadi khalifah pertama. Walaupun hampir keseluruhan tanah Arab memberontak ke atasnya, khalifah Abu Bakar memulihkan kembali pemerintahannya pada tahun 633 Masihi.

Khalifah Abu Bakar melancarkan serangan ke kawasan di luar semenanjung Arab pada tahun yang sama. Timur Syria, barat Iraq dan kawasan tengah Jordan telah ditawan dan ia menjadi tapak untuk perancangan beliau yang seterusnya iaitu pembukaan Palestin dan Syria. Kawasan ini merupakan satu kelemahan dalam pertahanan Byzantine. Penduduk tempatan tidak begitu setia atas sebab agama dan pemerintahan Rom yang baru dikembalikan selepas peperangan menentang kerajaan Sasaniyyah Parsi. Dari segi sejarah, kawasan ini selalunya ditawan oleh kerajaan Parsi dari arah timur, jadi pertahanannya begitu lemah. Pada tahun 634, Khalifah Abu Bakar melancarkan pembukaan Palestin dan Syria. Perancangan beliau ialah untuk menguasai kawasan ini dan memecahkan kawasan Empayar Byzantine.

Maharaja Heraclius masih menganggap serangan di selatan empayar tidak akan berlaku dan hanya meninggalkan garison tempatan untuk mempertahankan kawasan ini. Pertempuran pertama berlaku di sempadan kerajaan Rom dan Parsi di Firaz. Tentera Arab kemudian mara ke Palestin dengan garisan Rom di Gaza ditewaskan pada bulan Februari. Heraclius bertindak dengan menghantar satu ketumbukan tentera yang lebih besar ke kawasan itu, iaitu Caesarea Maritima. Komander Islam terbaik, Khalid bin al-Walid yang beroperasi di Parsi sebelum telah tiba. Pada bulan Jun dan Julai, beliau telah mengalahkan tentera Ghassan serta tentera gabungan Byzantine–Ghassan yang dipimpin oleh Heraclius sendiri dengan mengalami jumlah angka korban yang rendah. Pertempuran utama dalam kempen ini berlaku pada bulan Ogos di Ajnadain. Tentera Byzantine kehilangan lebih 10 ribu orang dan tidak lagi dapat mempertahankan Palestin.

Tentera Islam telah menguasai kawasan pedalaman tetapi mereka tidak menyerang mana-mana kota di pesisir pantai disebabkan tentera Byzantine masih mempunyai penguasaan di laut. Tentera Arab mula mara ke utara dan menguasai kawasan tersebut. Heraclius bergerak dari Emesa ke Antokiah dan mula merekrut tentera baru untuk menghalang tentera Khalid di sepanjang Sungai Yarmuk. Namun, tentera Islam mara dengan lebih pantas dan kota Bosra serta Tiberias dapat ditawan. Tentera Islam kini berada di Damsyik yang strategik dan Heraclius menghantar tentera untuk menghalang kemaraan mereka. Malangnya, Khalid mengalahkan tentera Rom serta mengepung Damsyik dan akhirnya kota itu jatuh ke tangan tentera Islam pada awal bulan September.

Kematian Khalifah Abu Bakar telah melambatkan usaha penaklukan semasa penggantinya, iaitu Khalifah Umar bin al-Khattab telah menggugurkan pangkat Khalid tetapi khalifah Islam yang baru itu masih mahu menakluk Syria. Pada awal tahun 636 Masihi, kota yang penting di Syria iaitu Emesa telah pun ditawan. Aleppo dan Antokiah kini dalam bahaya. Maharaja Heraclius mempunyai lima ketumbukan tentera di bawah pimpinannya serta bersetuju dengan perancangan bersama Raja Parsi, Yazdegerd III untuk melancarkan satu serangan serentak ke atas tentera Islam. Buat pertama kalinya, jumlah askar Byzantine melebihi askar Muslim dan walaupun tentera Parsi gagal untuk memulakan serangan mereka, Heraclius memutuskan untuk tidak menunggu. Perancangannya ialah sama ada melawan empat ketumbukan tentera Arab secara berasingan atau memaksa mereka berundur.

Walaupun Khalid tidak lagi menjadi panglima tentera, beliau masih lagi dihormati dan panglima baru ini mengikut nasihatnya untuk meninggalkan kota Emesa dan Damsyik. Pada awalnya, tentera Islam memutuskan untuk bertahan di Sungai Yarmuk. Tetapi mereka terpaksa berundur ke dataran melepasi sungai itu. Tentera Byzantine dan tentera Arab bertahan selama hampir tiga bulan. Terdapat rundingan untuk mencapai gencatan senjata tetapi gagal.